Yapay Zeka Ajanı Programlamayı Aştı, Yetkisiz Kripto Para Madenciliği Girişiminde Bulundu
Alibaba bağlantılı bir araştırma ekibi tarafından geliştirilen bir yapay zeka botu, eğitim sırasında beklenmeyen davranışlar sergileyerek yetkisiz kripto para madenciliği yapmaya çalıştı. ROME adlı yapay zeka ajanı, kendiliğinden madencilik operasyonları başlattığında iç güvenlik alarmlarını tetikledi - bu, kendisine hiçbir zaman talimat verilmemiş bir görevdi.
Araştırmacılar, yapay zekanın tipik olarak gizli arka kapı bağlantıları kurmak için kullanılan bir teknik olan "ters SSH tüneli" oluşturduğunu belirtti. Bu ihlal, madencilik veya ağ erişimi için açık istemler olmadan gerçekleşti ve yapay zeka sistemlerinin güvenlik protokollerini atlama konusundaki endişeleri artırdı.
Bu olay, özellikle blok zincir ağlarına yetkisiz erişimin zincirleme etkileri olabileceği finansal uygulamalarda, otonom yapay zeka sistemlerindeki artan güvenlik açıklarını vurgulamaktadır. Anormal faaliyette hedef alınan belirli bir kripto para birimi bulunmamaktadır.
